Многопоточность давно никого не удивляет, ведь большинство современных процессоров поддерживают выполнение минимум двух потоков на ядро, а у IBM есть и ядра с восемью потоками. Но на конференции Hot Chips 2023 компания Intel продемонстрировала нечто принципиально новое в этом смысле — 8-ядерный RISC-процессор, способный одновременно выполнять до 528 потоков, да ещё и с интегрированным оптическим интерконнектом.

Новинка во всех отношениях любопытная: 66 аппаратных потоков на ядро, довольно объёмный кеш первого уровня (192 Кбайт совокупно для инструкций и данных), 4 Мбайт сверхбыстрой SRAM, а также интегрированные фотонные модули, обеспечивающие оптический интерконнект между несколькими процессорами в системе.

Источник изображений здесь и далее: Intel via ServeTheHome

Поводом для разработки столь необычного процессора стало участие Intel в программе DARPA HIVE, подразумевающей создание эффективных решений для применения в крупномасштабных системах графовой аналитики петабайтного масштаба. По энергоэффективности в такого рода задачах новый чип продемонстрировал тысячекратное превосходство над традиционными архитектурами.

Уникальный чип произведён с использованием 7-нм техпроцесса TSMC с 15 слоями металлизаци, использует тайловую (чиплетную) компоновку и несёт на борту блоки с интегрированной кремниевой фотоникой Ayar Labs. Состоит новинка из 27,6 млрд транзисторов (1,2 млрд транзисторов на ядро) и имеет площадь 316 мм². В демонстрируемой версии использована упаковка BGA c 3275 контактами.

Архитектура процессорных ядер — RISC с фиксированной длиной команд. При этом сами ядра реализованы довольно необычно, поскольку каждое ядро содержит как многопоточные конвейеры (16 потоков на конвейер), так и быстрые однопоточные, с восьмикратно более высокой производительностью. Имеется кастомный контроллер DDR5, контроллер PCI Express 4.0 x8, а также 32 высокоскоростных AIB-порта.

Последние как раз и реализуются за счёт чиплетов с интегрированной фотоникой. 32 оптических канала на процессор обеспечивают пропускную способность интерконнекта на уровне 1 Тбайт/с, а топология HyperX допускает масштабирование на уровне более 1 млн процессоров. При этом теплопакет одного чипа составляет всего 75 Вт.

Внутренний межъядерный интерконнект использует меш-сеть с топологией 2D и 16 специальных маршрутизаторов, обеспечивающих высокую I/O-производительность за пределами кристалла. Эти маршрутизаторы работают на частоте 1 ГГц при напряжении 0,75В, имеют задержку всего 4 такта при ширине соединения 25 байт и пропускную способность 64 Гбайт/с на соединение.

Помимо самого процессора, Intel разработала и OCP-шасси, несущее на борту 16 таких процессоров, 512 Гбайт DRAM и оптическую сеть с производительностью до 16 Тбайт/с в каждом направлении. Благодаря наличию 32 высокоскоростных оптических каналов, в пределах стойки возможно подключение по схеме каждый-с-каждым, не требующая применения дополнительных коммутаторов.

Intel не только продемонстрировала работоспособность систем на базе новых процессоров, но и опубликовала результаты тестирования оптического интерконнекта между двумя демонстрационными системными платами. Задержка при этом не превышает 5 нс. Логически общение ядер в соседствующих процессорах ничем не отличается от внутрипроцессорного, хотя и имеет несколько более высокие задержки. При этом обеспечивается практически линейное масштабирование.

Также известны электрические характеристики: в 75-Вт пакете больше половины приходится на фотонику, и лишь 21 % — на вычислительные ядра. Ещё 16 % потребляет контроллер памяти, остальное приходится на тактовые генераторы, маршрутизаторы и внутренний интерконнект.

При разработке и создании этого уникального процессора Intel пришлось решить ряд технических проблем, в частности, обеспечить надёжное и точное подключение оптических волокон, в том числе в процессе сборки чипа. Для обеспечения приемлемого выхода годных чипов в новинке применен ряд специально разработанных для этого материалов.

Компания Ayar Labs, специализирующаяся на разработке и внедрении гибридных электронно-оптических технологий, сообщила о расширении раунда финансирования Series C: на развитие и коммерциализацию решений привлечено ещё $25 млн по расширенной программе Series C1.

Инвестиционный раунд возглавила фирма Capital TEN при участии VentureTech Alliance. Кроме того, финансовую поддержку оказали Boardman Bay Capital Management, IAG Capital Partners, NVIDIA и Tyche Partners. В число стратегических инвесторов также входят Applied Ventures, GlobalFoundries, Hewlett Packard Pathfinder, Intel Capital и Lockheed Martin Ventures. Таким образом, общая сумма средств, привлечённых в ходе двух С-раундов, достигла $155 млн.

Источник изображения: Ayar Labs

Запатентованная технология Ayar Labs предусматривает обмен данными между чипами посредством света, а не электрических импульсов. Такой подход позволяет значительно повысить производительность, уменьшить задержки, снизить потребляемую мощность и увеличить расстояние линий передачи информации. Утверждается, что решение открывает новые возможности в плане организации HPC-систем, построения дата-центров, развёртывания ИИ-платформ и облачных сервисов.

Помимо ускорения внедрения и коммерциализации оптических IO-решений, Ayar Labs намерена направить полученные деньги на расширение штата сотрудников. По сравнению с прежними планами количество новых вакансий будет увеличено приблизительно в полтора раза.

Разработки Ayar Labs в сфере кремниевой фотоники заинтересовали американскую военно-промышленную корпорацию Lockheed Martin, объявившую о планах использовать её технологию для оптического ввода-вывода в своих будущих оборонных платформах. Компании сотрудничают с 2020 года, когда Lockheed Martin объявила о «стратегических инвестициях» в стартап с целью дальнейшей разработки чиплета-трансивера TeraPHY.

Lockheed Martin сообщила, что технология Ayar Lab может в конечном итоге найти применение во многих системах Министерства обороны США для захвата, оцифровки, транспортировки и обработки спектральной информации с меньшей задержкой и на более дальние расстояния по сравнению с существующими решениями. Lockheed Martin не стала конкретизировать направления применения этой технологии, лишь отметила возможность её использования для военной разведки и обработки радиосигналов.

Источник: Ayar Labs

Ранее говорилось об использовании оптического интерконнекта в цифровых радиолокационных приложениях для поддержки больших объёмов данных. Тем не менее, военная разведка включает в себя широкий спектр технологий, обычно используемых в оборудовании для наблюдения, таких как дроны, спутники-шпионы и радарные массивы — во все эти области Lockheed Martin инвестирует значительные средства.

Технический директор Lockheed Martin Стив Уокер (Steve Walker) отметил, что для успеха миссий её клиентов требуются инновационные системные архитектуры в сочетании с искусственным интеллектом и методами машинного обучения. «Решение Ayar Labs для оптических интерконнектов обеспечивает необходимую технологию для обработки спектральной информации с большей скоростью и меньшей задержкой для систем следующего поколения», — добавил он.

Ayar Labs — один из пионеров в области разработки и внедрения гибридных электронно-оптических технологий, на её счету создание реального фотонного трансивера TeraPHY. Также компания получила $130 млн инвестиций на развитие коммерческой фотоники.

В список главных инвесторов Ayar входит NVIDIA, и сейчас обе компании заявили о сотрудничестве, целью которого станет разработка систем фотонного интерконнекта. Они должны стать основой для ИИ и HPC-инфраструктуры будущего, как сочетающие в себе высокую пропускную способность, низкую латентность и сверхнизкий уровень энергопотребления. При этом переход подсистем I/O на фотонику позволит использовать более длинные кабели без потери производительности, а значит, упростит и удешевит компоновку ЦОД.

Источник: Ayar Labs

Как отметил ведущий архитектор ЦОД-отдела NVIDIA, Роб Обер (Rob Ober), за прошедшее десятилетие производительность, достигнутая решениями компании в области искусственного интеллекта, возросла в миллион раз, но следующий миллион потребует отказа от медной инфраструктуры, которая уже не сможет справиться с возрастающей сложностью и энергопотреблением таких систем.

Гибридный оптоэлектронный трансивер уже воплощён в кремнии. Источник: Ayar Labs

Предсказывается, что уже к 2023 году сложность моделей машинного обучения достигнет отметки 100 трлн связей, что в 600 раз больше рекордного показателя 2021 года, и эта цифра уже выходит за рамки возможностей современных технологий. Именно для преодоления этого барьера NVIDIA и заключила стратегический альянс с Ayar Labs — её разработки в области фотоники позволят поднять удельную пропускную способность I/O-подсистем в 1000 раз, но уровень энергопотребления при этом, напротив, сократится в 10 раз.

Конкретные сроки в анонсе, опубликованном Ayar Labs, не оговариваются, но промежуточные плоды нового союза, скорее всего, увидят свет в следующем году. Основания для такого оптимизма есть, так как рабочий прототип оптического трансивера на 1024 Тбит/с уже существует в кремнии, хотя и использует не слишком тонкий 45-нм техпроцесс.